Livro | AI, Digital Platforms, and the New Systemic Risk

O livro “AI, Digital Platforms, and the New Systemic Risk” (Hacker, Kasirzadeh, Edwards, 2025) investiga como a crescente presença da IA em plataformas digitais está criando novas formas de risco sistêmico. 

Diferente de riscos individuais, esses riscos têm caráter coletivo, estrutural e potencialmente irreversível, podendo afetar setores inteiros da economia e da sociedade.

O artigo mostra que legislações recentes — como o Digital Services Act (DSA) e o AI Act da União Europeia — já reconhecem a noção de risco sistêmico, mas ainda de forma limitada ou ambígua. O DSA, por exemplo, avança ao considerar impactos em discurso cívico, direitos fundamentais e segurança pública, enquanto o AI Act se concentra em critérios técnicos como poder computacional e modelos mais avançados, deixando de fora problemas graves como discriminação em larga escala e alucinações sistemáticas de IA.

Para preencher essas lacunas, os autores propõem um framework em quatro níveis de risco:

1. Modelo único – quando a falha de um modelo amplamente utilizado gera impactos sistêmicos.

2. Múltiplos modelos – falhas sincronizadas entre diferentes modelos.

3. Integração em plataformas – efeitos em cascata amplificados por mecanismos de recomendação e redes sociais.

4. Integração institucional – riscos estruturais quando a IA é incorporada a sistemas de governança, finanças ou segurança.

A análise aplica esse framework a cinco exemplos práticos: terrorismo, discriminação, alucinações, cibersegurança e impactos ambientais. O trabalho conclui propondo reformas regulatórias que ampliem o conceito de risco sistêmico, reforcem a cooperação entre regimes legais e incluam danos coletivos como foco central.

Assim, o artigo oferece um diagnóstico inovador e um ferramental de políticas públicas para lidar com falhas que podem transformar riscos locais em disrupções estruturais na sociedade digital.